ข้ามไปยังเนื้อหา

แท็ก

#HF Jobs

1 บทความ

ลงมือทำ: เปิดเซิร์ฟเวอร์ vLLM บน Hugging Face Jobs ด้วยคำสั่งเดียว — เสิร์ฟโมเดลโอเพนเวตแบบ OpenAI-compatible จ่ายตามนาที
เครื่องมือนักพัฒนา

ลงมือทำ: เปิดเซิร์ฟเวอร์ vLLM บน Hugging Face Jobs ด้วยคำสั่งเดียว — เสิร์ฟโมเดลโอเพนเวตแบบ OpenAI-compatible จ่ายตามนาที

26 มิ.ย. 2026 Hugging Face ออกคู่มือใช้ `hf jobs run` ปั่นเซิร์ฟเวอร์ vLLM แบบ OpenAI-compatible สำหรับโมเดลโอเพนเวตตัวไหนก็ได้ในคำสั่งเดียว — เลือก GPU ด้วย --flavor, เปิดพอร์ตผ่าน public proxy ด้วย --expose, จ่ายตามนาที ไม่ต้องตั้งเซิร์ฟเวอร์เอง พร้อม SSH ดีบักและ tensor parallel สำหรับโมเดลใหญ่

· อ่าน 6 นาที